ベイズの定理 Bayes' theorem
ベイズの定理( Bayes' theorem)、
最近ではベイズ・プライスの定理とは、
ある事象に関連する可能性のある条件についての事前の知識に基づいて、その事象の確率を記述するものである。
[$ P(X|Y)=P(Y|X)P(X)/P(Y)
条件付き確率$ P(Y|X←条件)=P(X,Y)/P(X)を変形しただけ。
重要なのは解釈。
元の確率(事前確率$ P(X))が、
新しく情報を得て更新される
(事後確率$ P(X|Y))
この定理を言語に翻訳すると、
「あるデータ群を条件とする二つの仮説の確率の比は、その条件付き確率の比に、データの予測として第一の仮説が第二の仮説を上回る度合いを掛けたものに等しい」とい うことになる。
もっと簡単に言えば、ある仮説とそれに続く証拠が与えられた場合、仮説の尤度を事前確率とつなげ考慮することによってその仮説の確率を修正しなければならないということ。
仮説の「尤度」(ゆうど)とは?
「事前確率」とは、その仮説に関するあなたの背景知識(つまり、新しい証拠を考慮する前のその確率)のこと。
その結果が、仮説の事後確率。
競合する二つの信念があった場合、
事後確率が最も高い方が最良の推測となりますまさに計算し、
入力信号を減衰させるための絶え間ない努力の中で、
感覚ニューロンに予測メッセージを送ります。
知覚は文字通り、予測された分布と実際の分布の比較をまさに行い、事後確率を計算します。その結果として生じる推論が、知覚の正体です。知覚とは、入ってくる感覚信号を自己生成し、それによってその信号を説明しようとする試みなのです。 最近、多くの神経科学者が ベイジアン・ブレイン 「ベイズ脳」と言っているのはそのためです。
基本的にヒュームの帰納の問題と、
議題設定効果はある。
どういう確率を設定すべきかという意味で、
いわゆる教師付きで使用される、
確率を使用した推論。
事前確率の強度がすごく大事
一般的な「原因が与えられた時の結果の確率」だけでなく、「結果がある時の原因の確かさ」について求められるのがベイズ推論に置いて優れた点である。よって幾つかの原因がはっきりしている時の学習には非常に適している
考察になるが、最もらしい原因の直感的同定として、「注意」の概念を与える事が、一部のベイズ機械学習では行われている。
🔺ベイズ理論を支える基幹理論
ラプラスの継起の法則(数学的にはラプラス平滑化)
ベイズ理論における確率の扱い方は、
「主観的な信念の度合い」である。
主に「尤度」と示す。
これ、事象の起こる頻度を確率を重視する頻度主義的確率論と対立する概念であるが、私見で言えるのは、
—-解像度が低くても客観性を信仰するよりは、高解像度の主観的見方をとってみる方がマシである。—
これは、
「全てのモデルは誤りだが、そのいくらかは役に立つ」(ジョージボックス)のこの言葉が、正に『モデル』という、『情報のある主観的捉え方』という概念的性質を暗に表す事を示してくれる。(観測者問題とも関連がある。)